<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN">
<html>
<head>
<title>АОТ :: Технологии :: Диссертация А.Сокирко... :: Глава 2. Досемантический анализ русского текста.</title>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
<link href="../../aot.css" rel="stylesheet" type="text/css">
</head>

<body bgcolor="#F3F3F3" text="#000000" link="#000000" vlink="#999999" alink="#000000">
<a name="top"></a>
<table border="0" align="center" cellpadding="1" cellspacing="0">
  <tr>
    <td bgcolor="#666666"><table width="760" border="0" cellpadding="0" cellspacing="0" bgcolor="#FFFFFF">
        <tr>
          <td><table border="0" cellspacing="0" cellpadding="5">
              <tr>
                <td width="30">&nbsp;</td>
                <td><font size="+7" face="Arial, Helvetica, sans-serif"><b>АОТ</b></font></td>
                <td width="40">&nbsp;</td>
                <td valign="baseline"><font size="+1" face="Arial, Helvetica, sans-serif"> Автоматическая  Обработка  Текста</font></td>
              </tr>
            </table>
            <table width="720" border="0" align="center" cellpadding="0" cellspacing="0" bgcolor="#000000">
              <tr>
                <td height="4"><img src="../../images/transparent.gif" width="1" height="4"></td>
              </tr>
            </table>
            <table width="760" border="0" cellpadding="0" cellspacing="0">
              <tr>
                <td valign="top"><table border="0" cellspacing="0" cellpadding="20">
                    <tr>
                      <td class="text">
                        <p align="center"><font size="-1" face="Arial, Helvetica, sans-serif"><a href="/index.html">главная</a> <a href="/history.html">о&nbsp;нас</a> <a href="/product.html">продукты</a> <a href="/download.shtml">скачать</a> <a href="/onlinedemo.html">&nbsp;демо</a> <a href="/technology.html"><b>технологии</b></a> &nbsp; <a href="#top" title="наверх">^</a></font></p>
                        <table width="720" border="0" cellpadding="3" cellspacing="0" bgcolor="#CCCCCC">
                          <tr>
                            <td class="titleblack">Диссертация А.Сокирко &quot;Семантические словари в автоматической обработке текста (по материалам системы ДИАЛИНГ)&quot;</td>
                          </tr>
                        </table>
                        <table width="720" border="0" align="center" cellpadding="0" cellspacing="0">
                          <tr>
                            <td height="7"><img src="../../images/transparent.gif" width="1" height="7"></td>
                          </tr>
                          <tr>
                            <td height="2" bgcolor="#000000"><img src="../../images/transparent.gif" width="1" height="2"></td>
                          </tr>
                          <tr>
                            <td height="7"><img src="../../images/transparent.gif" width="1" height="7"></td>
                          </tr>
                        </table>
                        <p><a href="sokirko-candid-1.html">Введение</a></p>
                        <p><a href="sokirko-candid-2.html">Глава 1. Обзор литературы</a></p>
                        <p><a href="sokirko-candid-3.html"><b>Глава 2. Досемантический анализ русского текста</b></a></p>
						<p>&nbsp;&nbsp;<a href="#3-1">Графематический анализ</a></p>
						<p>&nbsp;&nbsp;<a href="#3-2">Морфологический анализ и лемматизация</a></p>
						<p>&nbsp;&nbsp;<a href="#3-3">Синтаксический анализ</a></p>
						<p>&nbsp;&nbsp;&nbsp;&nbsp;<a href="#3-3-1">Правила для построения групп предлог + ИГ</a></p>
						<p>&nbsp;&nbsp;<a href="#3-4">Фрагментационный анализ</a></p>
						<p>&nbsp;&nbsp;<a href="#3-5">Объединение результатов фрагментации и синтаксического анализа</a></p>
                        <p>&nbsp;</p>
                        <p><a href="sokirko-candid-4.html">Глава 3. Первичный семантический анализ русского текста</a></p>
                        <p><a href="sokirko-candid-5.html">Глава 4. Синтез английского текста</a></p>
                        <p><a href="sokirko-candid-6.html">Заключение</a></p>
                        <p><a href="sokirko-candid-7.html">Литература</a></p>
                        <p><a href="sokirko-candid-8.html">Выступление на защите</a></p>
                        <p>&nbsp;</p>
                        <p>&nbsp;</p>
                        <table width="720" border="0" cellspacing="0" cellpadding="0">
                          <tr>
                            <td class="titleblack"><a name="3"></a>Глава 2. Досемантический анализ русского
                              текста</td>
                            <td align="right"><a href="#top" class="titleblack" title="наверх">^</a></td>
                          </tr>
                        </table>
                        <br>
                        <br>
                        <table width="720" border="0" cellspacing="0" cellpadding="0">
                          <tr>
                            <td width="20"><a name="3-1"></a></td>
                            <td class="titleblack">Графематический анализ</td>
                            <td align="right"><a href="#top" class="titleblack" title="наверх">^</a></td>
                          </tr>
                        </table>
                        <p>Графематический анализ (далее графематика) - достаточно простая
программа, выполняющая первые предварительные действия над текстом. На вход
графематике подается текст в кодировке Windows, на выходе строится
графематическая таблица, в которой на каждой строке стоит слово или разделитель
из входного текста. Программа выделяет некоторые аббревиатуры, имена с
инициалами, даты и пр. Кроме деления текста на слова, графематика разбивает
текст на абзацы и предложения (макросинтаксический анализ). </p>
                        <p>Графематическая таблица
состоит из двух столбцов. В первом столбце 
стоит некоторый кусок входного текста (выделенный по правилам, о которых
мы скажем ниже), во втором столбце стоят графематические дескрипторы,
характеризующие этот кусок текста. Например, 
для текста 
&quot;Иван спал&quot; будет построена таблица из трех строк</p>
                        <table width="720" border=1 cellpadding=3 cellspacing=0 bordercolor="#CCCCCC">
                          <tr bgcolor="#CCCCCC">
                            <th>Кусок входного  текста</th>
                            <th>Графематические дескрипторы</th>
                          </tr>
                          <tr>
                            <td align="center">Иван</td>
                            <td align="center">ЛЕ Бб ПРД1</td>
                          </tr>
                          <tr>
                            <td align="center">_</td>
                            <td align="center">РЗД ПРБ</td>
                          </tr>
                          <tr>
                            <td align="center">спал</td>
                            <td align="center">ЛЕ бб ПРД2</td>
                          </tr>
                        </table>
                        <p>Перечислим главные графематические дескрипторы:</p>
                        <table width="720" border=1 cellpadding=3 cellspacing=0 bordercolor="#CCCCCC">
                          <tr bgcolor="#CCCCCC">
                            <th width=100>Кир.Назв.</th>
                            <th>Объяснение</th>
                            <th width=130>Пример</th>
                          </tr>
                          <tr>
                            <td width=100 align="center">ЛЕ</td>
                            <td>русская лексема, присваивается последовательностям, состоящим из кириллицы</td>
                            <td width=130 align="center">Иван</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">ИЛЕ</td>
                            <td>иностранная лексема, присваивается последовательностям из латиницы</td>
                            <td width=130 align="center">John</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">РЗД</td>
                            <td>разделитель, но не знак препинания. </td>
                            <td width=130 align="center">'*', '=', '_'</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">
        ЗПР</td>
                            <td>
        знак
  препинания, присваивается последовательностям, состоящим из одинаковых знаков
  препинания</td>
                            <td width=130 align="center">
'        .', '[',
  ']', '(', ')', '-', ':', ';'</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">
        ЦК</td>
                            <td>
        цифровой
  комплекс, присваивается последовательностям, состоящим из цифр</td>
                            <td width=130 align="center">
        1234</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">
        ЦБК</td>
                            <td>
        цифро-буквенный
  комплекс, присваивается последовательностям, состоящим из цифр и букв</td>
                            <td width=130 align="center">
        34h</td>
                          </tr>
                        </table>
                        <p>Разновидности дескриптора РЗД:</p>
                        <table width="720" border=1 cellpadding=3 cellspacing=0 bordercolor="#CCCCCC">
    
                          <tr>
                            <td width=100 align="center">
        ПРБ</td>
                            <td>
        строка
  пробелов или табуляций</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">
        КСТ  </td>
                            <td>
        признак конца
  строки</td>
                          </tr>
                        </table>
                        <p>Разновидности дескриптора ЛЕ и ИЛЕ:</p>
                        <table width="720" border=1 cellpadding=3 cellspacing=0 bordercolor="#CCCCCC">
    
                          <tr>
                            <td width=100 align="center">
        бб</td>
                            <td>
        признак того,
  что все символы лексемы – малые</td>
                            <td width=130 align="center">
        мама</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">
        Бб</td>
                            <td>
        признак того,
  что первый символ лексемы - большой;</td>
                            <td width=130 align="center">
        Мама</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">ББ</td>
                            <td>признак того, что все символы лексемы – большие</td>
                            <td width=130 align="center">МАМА</td>
                          </tr>
                        </table>
                        <p>Теперь опишем дескрипторы, которые появляются на строке в
зависимости от контекста, т.е. они вычисляются не только из текущей строки, но
и из номера текущей строки и строк, которые находятся выше и ниже вычисляемой.</p>
                        <p>Контекстные дескрипторы:</p>
                        <table width="720" border=1 cellpadding=3 cellspacing=0 bordercolor="#CCCCCC">
    
                          <tr>
                            <td width=100 align="center">
        ПРД1 </td>
                            <td>
        начало предложения</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">
        ПРД2</td>
                            <td>
        конец предложения</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">
        ИМ?</td>
                            <td>
        признак того, что лексема, возможно,
  является частьюимени собственного. Присваивается
  лексеме, начинающейся с прописной буквы
  и не имеющей перед собой символа конца предложения.</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">
        ОБ1</td>
                            <td>
        ставится на начале оборота (словарь
  оборотов будет описан ниже)</td>
                          </tr>
                          <tr>
                            <td width=100 align="center">
        ОБ2</td>
                            <td>
        ставится на конце оборота </td>
                          </tr>
                        </table>
                        <p>&nbsp;</p>
                        <table width="720" border="0" cellspacing="0" cellpadding="0">
                          <tr>
                            <td width="20"><a name="3-2"></a></td>
                            <td class="titleblack">Морфологический анализ и лемматизация</td>
                            <td align="right"><a href="#top" class="titleblack" title="наверх">^</a></td>
                          </tr>
                        </table>
                        <p>Морфологический компонент осуществляет морфоанализ и
лемматизацию  русских словоформ
(лемматизация - приведение текстовых форм слова к словарным; морфоанализ –
приписывание словоформам морфологической информации).</p>
                        <p>Идеология морфологического анализа системы ДИАЛИНГ не представляет
собой оригинальную разработку и почти полностью заимствована из работ Аношкиной[1995].</p>
                        <p>В системе ДИАЛИНГ используются три типа морфологических словарей [<a name="p1" href="#pp1">1</a>]:</p>
                        <ul>
                          <li>Большой словарь, который базируется на
грамматическом  словаре
А.А.Зализняка[1987];</li>
                          <li>Словарь имен собственных (например: Петр, Иванович,
Иванов);</li>
                          <li>Словарь географических слов (например: Москва, Россия).</li>
                        </ul>
                        <p>При лемматизации для каждого слова входного текста морфологический
процессор выдает множество морфологических интерпретаций следующего вида:</p>
                        <ul>
                          <li>лемма (всегда пишется большими буквами);</li>
                          <li>морфологическая часть речи;</li>
                          <li>множество наборов граммем.</li>
                        </ul>
                        <p>Лемма – это нормальная форма слова.  Например,  для
существительных – это единственное число (если оно есть у существительного),
именительный  падеж.  </p>
                        <p>Морфологическая часть речи определяется традиционным образом за
исключением того, что некоторые специфические морфологические формы также
получают статус части речи. Индексы в названии части речи обозначают тип
морфологического словаря (n – словарь имен, g – словарь  географии). Ниже мы приводим полный перечень
частей речи в нашей системе:</p>
                        <table width="720" border=1 cellpadding=3 cellspacing=0 bordercolor="#CCCCCC">
    
                          <tr bgcolor="#CCCCCC">
                            <th width=189>
        Часть речи в системе Диалинг</th>
                            <th width=114 colspan=2>
        Пример</th>
                            <th width=354>
        Расшифровка </th>
                          </tr>
                          <tr>
                            <td width=189>
        NOUN</td>
                            <td width=114 colspan=2>
        мама</td>
                            <td width=354>
        существительное из Большого словаря</td>
                          </tr>
                          <tr>
                            <td width=189>
        NOUN_n</td>
                            <td width=114 colspan=2>
        Сидор</td>
                            <td width=354>
        существительное из словаря имен</td>
                          </tr>
                          <tr>
                            <td width=189>
        NOUN_g</td>
                            <td width=114 colspan=2>
        Москва</td>
                            <td width=354>
        существительное из географического словаря</td>
                          </tr>
                          <tr>
                            <td width=189>
        ADJ_FULL</td>
                            <td width=114 colspan=2>
        красный</td>
                            <td width=354>
        полное прилагательное </td>
                          </tr>
                          <tr>
                            <td width=189>
        ADJ_SHORT</td>
                            <td width=114 colspan=2>
        красив</td>
                            <td width=354>
        краткое прилагательное</td>
                          </tr>
                          <tr>
                            <td width=189>
        ADJ_g</td>
                            <td width=114 colspan=2>
        московский</td>
                            <td width=354>
        географическое прилагательное</td>
                          </tr>
                          <tr>
                            <td width=189>
        PRONOUN</td>
                            <td width=114 colspan=2>
        он</td>
                            <td width=354>
        местоимение-существительное</td>
                          </tr>
                          <tr>
                            <td width=189>
        VERB</td>
                            <td width=114 colspan=2>
        идет</td>
                            <td width=354>
        глагол в личной форме</td>
                          </tr>
                          <tr>
                            <td width=189>
        PARTICIPLE</td>
                            <td width=114 colspan=2>
        идущий</td>
                            <td width=354>
        причастие</td>
                          </tr>
                          <tr>
                            <td width=189>
        ADVERB_PARTICIPLE</td>
                            <td colspan=2>
        идя</td>
                            <td width=354>
        деепричастие</td>
                          </tr>
                          <tr>
                            <td width=189>
        PARTICIPLE_SHORT</td>
                            <td colspan=2>
        ведом</td>
                            <td width=354>
        краткое причаcтие</td>
                          </tr>
                          <tr>
                            <td width=189>
        INFINITIVE</td>
                            <td width=114 colspan=2>
        идти</td>
                            <td width=354>
        инфинитив</td>
                          </tr>
                          <tr>
                            <td width=189>
        PRONOUN_PREDK </td>
                            <td width=114 colspan=2>
        нечего</td>
                            <td width=354>
        местоимение-предикатив</td>
                          </tr>
                          <tr>
                            <td width=189>
        PRONOUN_P </td>
                            <td width=114 colspan=2>
        всякий</td>
                            <td width=354>
        местоименное прилагательное</td>
                          </tr>
                          <tr>
                            <td width=189>
        NUMERAL</td>
                            <td width=114 colspan=2>
        восемь</td>
                            <td width=354>
        числительное (количественное)</td>
                          </tr>
                          <tr>
                            <td width=189>
        NUMERAL_P</td>
                            <td width=114 colspan=2>
        восьмой</td>
                            <td width=354>
        порядковое числительное</td>
                          </tr>
                          <tr>
                            <td width=189>
        ADV</td>
                            <td width=114 colspan=2>
        круто</td>
                            <td width=354>
        наречие</td>
                          </tr>
                          <tr>
                            <td width=189>
        PREDK </td>
                            <td width=114 colspan=2>
        интересно</td>
                            <td width=354>
        предикатив</td>
                          </tr>
                          <tr>
                            <td width=189>
        PREP</td>
                            <td width=114 colspan=2>
        под</td>
                            <td width=354>
        предлог</td>
                          </tr>
                          <tr>
                            <td width=189>
        CONJ</td>
                            <td width=114 colspan=2>
        и</td>
                            <td width=354>
        союз</td>
                          </tr>
                          <tr>
                            <td width=189>
        INTERJ</td>
                            <td width=114 colspan=2>
        ой</td>
                            <td width=354>
        междометие </td>
                          </tr>
                          <tr>
                            <td width=189>
        PARTICLE </td>
                            <td width=114 colspan=2>
        же, бы</td>
                            <td width=354>
        частица</td>
                          </tr>
                          <tr>
                            <td width=189>
        INP</td>
                            <td width=114 colspan=2>
        конечно</td>
                            <td width=354>
        вводное слово</td>
                          </tr>
                          <tr>
                            <td width=189>
        COMP </td>
                            <td width=114 colspan=2>
        лучше</td>
                            <td width=354>
        сравнительная степень наречий</td>
                          </tr>
                        </table>
                        <p>Для удобства иногда используются следующие морфологические
сокращения:</p>
                        <p>C = (NOUN_g или NOUN_n или NOUN
) // обобщенное существительное</p>
                        <p>П = (ADJ_SHORT или ADJ_FULL или ADJ_g) //
обобщенное прилагательное</p>
                        <p>Г=(VERB или PARTICIPLE или
ADVERB_PARTICIPLE или  </p>
                        <p>
    PARTICIPLE_SHORT
или  INFINITIVE) // любая глагольная
форма</p>
                        <p>Граммема – это элементарный морфологический описатель, относящий
словоформу к какому-то морфологическому классу, например, словоформе<i> стол </i>с леммой СТОЛ будут приписаны
следующие наборы граммем: &quot;<b>мр, ед, им,
но&quot;,</b> &quot;<b>мр, ед, вн, но&quot;</b>. Таким
образом, морфологический анализ выдает два варианта анализа  словоформы <i>стол</i> с леммой СТОЛ внутри одной морфологической интерпретации: с
винительным (<b>вн</b>) и именительным
падежами (<b>им</b>).</p>
                        <p>Ниже перечислены все используемые граммемы:</p>
                        <p><b>мр, жр, ср</b> - мужской, женский,
средний род;</p>
                        <p><b>од, но</b> - одушевленность,
неодушевленность;</p>
                        <p><b>ед, мн</b> - единственное, множественное
число;</p>
                        <p><b>им, рд, дт, вн, тв, пр</b> - падежи:
именительный, родительный, дательный, винительный, творительный, предложный;</p>
                        <p><b>#1, #2</b> - соответствуют
пометам &quot;параграф&quot; в словаре А.А.Зализняка;</p>
                        <p><b>св, нс</b> - совершенный,
несовершенный вид;</p>
                        <p><b>пе, нп</b> - переходный,
непереходный глагол;</p>
                        <p><b>дст, стр</b> -
действительный, страдательный залог;</p>
                        <p><b>нст, прш, буд</b> -
настоящее, прошедшее, будущее время;</p>
                        <p><b>пвл</b> - повелительная
форма глагола;</p>
                        <p><b>1л, 2л, 3л</b> - первое,
второе, третье лицо;</p>
                        <p><b>0</b> – неизменяемое.</p>
                        <p>Как уже было сказано, одной словоформе может соответствовать много
морфологических интерпретаций. Например, у словоформы <i>стали</i> две интерпретации:</p>
                        <ul>
                          <li>
    
    (СТАЛЬ, NOUN, (&quot;жр,ед, рд,но&quot;,&quot;жр,ед, дт,но&quot;, &quot;жр,мн,
им,но&quot;, &quot;жр,мн, вн,но&quot;);</li>
                          <li>
    
    (СТАТЬ, VERB, {&quot;<b>мн,св,нп,дст,прш</b>&quot;}).</li>
                        </ul>
                        <p>В реальном тексте на последующих шагах анализа выбор  одной морфологической интерпретации одного
слова может повлиять  на выбор
морфологической интерпретации соседнего слова, 
поэтому программы работают с <b>вариантами</b> морфологических
интерпретаций. Морфологическим вариантом 
набора словоформ W<sub>1</sub>, ..., W<sub>i</sub>, ..., W<sub>n</sub> назовем
набор морфологических интерпретаций I<sub>1</sub>, ..., I<sub>i</sub>, ..., I<sub>n</sub>,
где I<sub>i</sub> – одна из возможных морфологических интерпретация словоформы W<sub>i</sub>.</p>
                        <p>Морфологический словарь содержит более 130 тысяч лемм для русского
языка, но этого оказывается недостаточным для реальных текстов. Если входная
словоформа  не была найдена в словаре,
то используется <b>алгоритм предсказания</b>,  
который ищет в словаре словоформу, максимально совпадающую с конца со
входной словоформой.  Парадигма
найденной словоформы используется как образец для создания парадигмы входной
словоформы.</p>
                        <p>Морфологический словарь не включает информацию об активном  словообразовании. Эти сведения, необходимые
для улучшения работы  машинного
перевода, нужно было включить в работу. Обработка активного  префиксального словообразования довольна
проста, поскольку активные приставки (&quot;пере-&quot;, &quot;полу-&quot;, &quot;анти-&quot; и др.) не
меняют корневую часть слова. Таким образом, для получения исходного слова
необходимо отнять приставку от начала слова. Формальное описание активного
суффиксального словообразования записывается с помощью пар вида &lt;SourceSuffix, TargetSuffix&gt;, где
SourceSuffix – конечный набор
букв исходного слова, а TargetSuffix
– конечный набор букв слова-деривата. Например,  для пары &lt;&quot;a&quot;,
&quot;ный&quot;&gt; строятся
слова &lt;мода,  модный&gt;, &lt;вата,
ватный&gt; и др. Описание
активного словообразования внутри проекта ДИАЛИНГ(Рудерман [1999]) содержит 51 активную
приставку и 23 суффиксальные пары. При поиске 
этих словообразовательных моделей учитывались следующие критерии:</p>
                        <ul>
                          <li>продуктивность (количество слов, образованных по этой
модели в существующем морфологическом словаре, должно превышать 50); </li>
                          <li>
    
    семантическая
интерпретируемость (должно существовать семантическое объяснение для
всех пар словообразовательной модели; ошибок должно  быть не более 15 процентов).</li>
                        </ul>
                        <p>Найденные модели покрывают 25 тысяч пар слов русского
морфологического словаря. Они используются для семантической интерпретации в
том случае, если в семантическом словаре не содержится дополнительных сведений.
</p>
                        <p>&nbsp;</p>
                        <table width="720" border="0" cellspacing="0" cellpadding="0">
                          <tr>
                            <td width="20"><a name="3-3" id="3-3"></a></td>
                            <td class="titleblack">Синтаксический анализ</td>
                            <td align="right"><a href="#top" class="titleblack" title="наверх">^</a></td>
                          </tr>
                        </table>
                        <p>Синтаксический анализ для русского языка в проекте ДИАЛИНГ - это синтаксис неразрывных групп.   В работе Сущанская[1989] такой синтаксис называется
&quot;синтаксисом первого ранга&quot;. На вход синтаксису первого ранга
подаются результаты морфологического анализа (каждой словоформе сопоставлено
максимально возможное для данной словоформы множество морфологических
интерпретаций). На выходе получается множество групп, каждая  из которых 
характеризуется следующими параметрами:</p>
                        <ul>
                          <li>
    
    координаты группы (номера первого и последнего слов в
предложении); </li>
                          <li>
    
    тип группы;</li>
                          <li>
    
    координаты главной подгруппы группы.</li>
                        </ul>
                        <p>Например, для словосочетания &quot;желтое солнце&quot; самая большая группа
будет следующей:</p>
                        <ul>
                          <li>
    
    

    
    {1,2} – координаты;</li>
                          <li>
    
    ПРИЛ-СУЩ – тип группы;</li>
                          <li>
    
    {2,2} – координаты главной подгруппы.</li>
                        </ul>
                        <p>Синтаксические группы не могут пересекаться, точнее, если  одна группа пересекается с другой, то либо
первая содержит вторую, либо вторая первую. Типы групп заранее заданы. Для
каждого типа написано  отдельное
синтаксическое правило, которое собирает слова в одну группу этого типа.
Порядок правил также жестко задан. Например, сначала объединяются
прилагательные, согласованные с существительным, стоящим после них, а уже потом
генитивные пары. К примеру, для фразы &quot;длинная борода старика&quot; будут построены
группы: </p>
                        <ul>
                          <li>
    
    ({1,2},ПРИЛ-СУЩ, {2,2}) - &quot;длинная борода&quot;;</li>
                          <li>
    
    ({1,3},ГЕНИТ-ИГ, {1,2})  - &quot;длинная борода старика&quot;.</li>
                        </ul>
                        <p>Поскольку  для  каждой 
группы определена главная подгруппа, можно вычислить для каждой группы
главное слово. Такое главное слово будем называть <b>синтаксически главным</b>
словом. Атрибуты синтаксически главного слова играют исключительно важную роль
в синтаксическом анализе;
главное слово как бы представляет всю группу, в некоторых случаях полностью
заменяя ее.  Например, группы, у которых
главное слово – существительное (далее мы будем их называть именными группами,
или просто ИГ), можно иногда приравнивать к существительному.</p>
                        <p>Важно отметить, что синтаксический анализатор работает отдельно с
каждым морфологическим вариантом предложения, что сильно упрощает разработку
правил, строящих группы. Приведем пример описания одного синтаксического
правила, взятого из работы Панкратов [1999]:</p>
                        <p>&nbsp;</p>
                        <table width="720" border="0" cellspacing="0" cellpadding="0">
                          <tr>
                            <td width="40"><a name="3-3-1" id="3-3-1"></a></td>
                            <td class="titleblack">Правила для построения групп предлог + ИГ</td>
                            <td align="right"><a href="#top" class="titleblack" title="наверх">^</a></td>
                          </tr>
                        </table>
                        <p>Если найдена цепочка групп вида ПРЕДЛОГ+ИГ, где ПРЕДЛОГ –
простой или сложный предлог, статья для которого находится в словаре оборотов,
а ИГ – именная группа (главное слово – существительное) и возможные падежи ИГ
имеют непустое пересечение с множеством падежей, которыми управляет предлог, то
нужно создать группу с названием ПГ и главной подгруппой ПРЕДЛОГ. Примеры: <i>на холм; в краю степей; в большом просторном
доме. </i></p>
                        <p>Теперь перечислим все типы групп:  </p>
                        <table width="720" border=1 cellpadding=3 cellspacing=0 bordercolor="#CCCCCC">
    
 
                          
                          <tr bgcolor="#CCCCCC">
                            
                            <th width=10>
        Тип</th>
                            <th width=10>Сокращенное название</th>
                            <th width=19>Пример</th>
                          </tr>
                          
                          <tr>
                            
                            <td width=10>
        Количественная
  группа</td>
                            <td width=10>КОЛИЧ</td>
                            <td width=19>двадцать
  восемь</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=10>
        Последовательность
  чисел вперемешку со знаками препинания</td>
                            <td width=10>КОЛИЧ</td>
                            <td width=19>12,2</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=10>
        Существительное
  из заданного перечня + числовой идентификатор</td>
                            <td width=10>СУЩ-ЧИСЛ</td>
                            <td width=19>статья
  123</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=10>
        Правила для построения ФИО
  (используются морфологические пометы 
  о том, что данное слово может быть именем)</td>
                            <td width=10>ФИО</td>
                            <td width=19>Петров
  Петр Владимирович</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=10>
        Слова степени (типа
  &quot;очень&quot;) с группой прилагательного или причастия</td>
                            <td width=10>НАР_ПРИЛ</td>
                            <td width=19>очень
  красивый</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=217>
        Однородные прилагательные</td>
                            <td width=5>
        ОДНОР_ПРИЛ</td>
                            <td width=4>первой и единственной</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=10>
        Однородные наречия</td>
                            <td width=10>ОДНОР_НАР</td>
                            <td width=19>долго
  иль коротко</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=10>
        Однородные инфинитивы</td>
                            <td width=10>ОДНОР_ИНФ</td>
                            <td width=19>стоять
  или лежать</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=217>
        Однородные
  прилагательные сравнительной степени</td>
                            <td width=10>ОДНОР_ПРИЛ</td>
                            <td width=1>
        красивее
  и моложе</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Группы даты</td>
                            <td width=10>ДАТА</td>
                            <td width=19>август
  1968 года,12
  июня 99 г. и т.д.</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Группа временных отрезков </td>
                            <td width=10>СЛОЖ_ПГ</td>
                            <td width=19>С
  первого августа по двадцатое сентября</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Аналитическая форма
  сравнительной степени прил. или наречия</td>
                            <td width=10>СРАВН-СТЕПЕНЬ</td>
                            <td width=19>гораздо
  сильнее</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Наречие + глагол</td>
                            <td width=10>НАРЕЧ-ГЛАГОЛ</td>
                            <td width=19>злостно
  нарушать</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Одно или несколько
  прилагательных, согласованных по роду, числу и падежу со стоящим сразу после
  них существительным.</td>
                            <td width=10>ПРИЛ-СУЩ</td>
                            <td width=19>длинная
  унылая дорога</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Наречное
  числительное + ИГ (рд мн) </td>
                            <td width=10>НАР-ЧИСЛ-СУЩ</td>
                            <td width=19>много
  очень простых ребят</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Числительное
  + ИГ</td>
                            <td width=10>ЧИСЛ-СУЩ</td>
                            <td width=19>сорок
  восемь попугаев</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Генитивная
  пара</td>
                            <td width=10>ГЕНИТ_ИГ</td>
                            <td width=19>рука
  Москвы</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Предложная
  группа</td>
                            <td width=10>ПГ</td>
                            <td width=19>на
  холме</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Однородные  ИГ</td>
                            <td width=10>ОДНОР_ИГ</td>
                            <td width=19>мама
  и папа</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=147>
        Отрицание
  + глагольная форма</td>
                            <td width=10>ОТР_ФОРМА</td>
                            <td width=19>не
  любить</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=201>
        Глагольная форма+контактное прямое дополнение</td>
                            <td width=10>ПРЯМ_ДОП</td>
                            <td width=19>рубить
  дрова</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=216>
        Группа
  электронного адреса </td>
                            <td width=10>ЭЛ_АДРЕС</td>
                            <td width=19><a href="http://www.dialing.ru/">www.dialing.ru</a></td>
                          </tr>
                          
                          <tr>
                            
                            <td width=216>
        Глагольная
  форма+контактный инфинитив</td>
                            <td width=10>ГЛАГ_ИНФ</td>
                            <td width=19>пойти
  выпить</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=216>
        Подлежащее
  </td>
                            <td width=10>ПОДЛ</td>
                            <td width=19><b>я</b>
  пошел</td>
                          </tr>
                          
                          <tr>
                            
                            <td width=216>
        Сказуемое
  </td>
                            <td width=10>СКАЗ</td>
                            <td width=19>я <b>пошел</b></td>
                          </tr>
                        
                        </table>
                        <p>Из перечня видно, что синтаксический анализ системы  ДИАЛИНГ не использует модели управления слов
кроме тех случаев, когда управление напрямую вычисляется по морфологическим
характеристикам слова. Использование модели управления приводит к возникновению
разрывных групп, что противоречит принципиальному ограничению  синтаксиса первого ранга. Пару
подлежащее-сказуемое мы включаем в синтаксис первого ранга, что приводит к
необходимости проверки согласования между разрывными составляющими. Но это
единственный такой случай. </p>
                        <p> В синтаксисе системы
ДИАЛИНГ намеренно не учитывается так называемая синтаксическая омонимия. Классический пример <i>древние стены города </i>наш анализатор разберет так же, как и
словосочетание <i>длинная борода  старика, </i>упомянутое выше. И это будет
единственный вариант. Однако, на наш взгляд, разрешение синтаксической омонимии
не столь важно как морфологическая омонимия. 
Например, та же фраза <i>древние
стены города </i>содержит четыре морфологических варианта, поскольку первые два
слова из этой фразы имеют по два омонима, а именно:</p>
                        <ol>
                          <li>словоформа  <i>древние</i> может быть восстановлена как
прилагательное ДРЕВНИЙ и как существительное ДРЕВНИЕ;</li>
                          <li>словоформа <i>стены </i>может  быть восстановлена как существительное
СТЕНА  и как существительное мужского
рода СТЕН (термин из теории вероятностей).</li>
                        </ol>
                        <p>Построив на первых двух словах
группу ПРИЛ-СУЩ, синтаксический анализатор фактически откинул морфологические
варианты с леммой ДРЕВНИЕ и с леммой СТЕН, что заметно облегчает дальнейший
анализ.</p>
                        <p>Мы считаем, что синтаксический
анализатор достаточно хорошо справляется с главной задачей – удалением
значительной части морфологического шума. Для уничтожения омонимии имеется
одно основное правило: для каждого морфологического омонима каждого слова
проверяется выполнение следующего критерия - данный омоним должен входить в
синтаксическую группу и не являться ни первым, ни последним ее словом. Тогда
все остальные омонимы этого слова, если они не образуют никаких групп,
уничтожаются. Например, <i>прозрачное стекло
стакана.</i> Вариант, где <i>стекло</i> –
глагол , отбрасывается, т.к. нет ни одной группы со <i>стекать</i>, а со <i>стекло</i>
построилась ГЕНИТ_ИГ( ПРИЛ-СУЩ(1, 2), 3).</p>
                        <p>Частные правила уничтожения омонимии для каждого омонима отвечают
на вопрос, можно ли удалить его, поскольку по умолчанию, если омоним входит в
какую-нибудь группу, то его нельзя удалять. Все омонимы, про которые не
сказано, что их нельзя удалять – уничтожаются. Например, <i>благодаря своим действиям</i>. Существует правило, которое говорит, что
если данный омоним – предлог, и с ним построена предложная группа – то его
нельзя удалить, а с <i>благодаря </i>как с
деепричастием никакая группа не построилась, значит, этот омоним можно удалить.
Возможны случаи, когда со всеми омонимами данной словоформы строятся группы и,
все равно, один из них удаляется. Например, <i>первое
марта.</i> Если <i>первое</i> -
существительное, то собирается ГЕНИТ_ИГ(1, 2), а если <i>первое</i> – порядковое числительное, то собирается ДАТА(1, 2). Однако
существует правило, которое говорит, что если у слова есть два омонима –
существительное и порядковое числительное, то омоним–существительное можно
удалить, а порядковое числительное – нельзя.</p>
                        <p>Оставшиеся морфологические
варианты упорядочиваются по покрытию, где покрытие – это число слов
предложения, попавших хотя бы в одну группу. 
</p>
                        <p>Покрытие обеспечивает выбор
между разными морфологическими интерпретациями,  но выше было показано, что даже внутри одной интерпретации
остается неоднозначность (например, падежная). 
Поэтому нужно использовать правила уничтожения омонимичных наборов
граммем. Эти правила написаны ad-hoc. Например,   во всех составляющих
группы ПРИЛ-СУЩ уничтожаются наборы граммем, в которые не входит падеж,
вошедший в общее пересечение падежей всех составляющих.</p>
                        <p>&nbsp;</p>
                        <table width="720" border="0" cellspacing="0" cellpadding="0">
                          <tr>
                            <td width="20"><a name="3-4" id="3-4"></a></td>
                            <td class="titleblack">Фрагментационный анализ</td>
                            <td align="right"><a href="#top" class="titleblack" title="наверх">^</a></td>
                          </tr>
                        </table>
                        <p>Фрагментационный анализ - деление предложения на неразрывные
синтаксические единства (фрагменты), большие или равные словосочетанию
(синтаксической группе), и установление частичной иерархии на множестве этих
единств. Фрагменты – это главные и придаточные предложения в составе сложного,
причастные, деепричастные и другие обособленные обороты. Иерархия отражает тот
факт, что в предложении некоторые фрагменты синтаксически зависимы от других.
Так, фрагмент &quot;причастный оборот&quot; будет подчиняться фрагменту, содержащему
определяемое слово, придаточное предложение – главному. Полное описание
фрагментационного анализа можно найти в работе Гершензон[1999].</p>
                        <p>Необходимость фрагментационного анализа в системе АОТ вызвана в
первую очередь техническими причинами. Фрагментационный анализ проходит после
морфологического анализа и до синтаксического, поэтому на вход синтаксическому
анализу предложение поступает по фрагментам. Это во много раз сокращает время
работы синтаксического анализа. Границы фрагментов не должны пересекать
синтаксических связей, так что при правильной работе фрагментационного анализа
не будут построены такие паразитические синтаксические связи, которые может
допускать морфология.</p>
                        <p>Фрагмент состоит из следующих
элементов: тип фрагмента, вершина
фрагмента, левая и правая границы фрагмента. Тип фрагмента получается  по части речи вершины фрагмента:<b> </b>глагол в личной форме,
краткое причастие, краткое прилагательное, предикатив,  причастие, 
деепричастие, инфинитив, вводное слово, 
пустыха. Пустыха присваивается 
фрагменту, если в нем не найдена вершина.    </p>
                        <p>Работа фрагментационного
анализа начинается с того, что по всем знакам препинания и сочинительным союзам
без запятой проводятся границы фрагментов. Затем вступают в действие правила
фрагментационного анализа, которые можно разделить на три типа:</p>
                        <ul>
                          <li>
    
    Правила,
уничтожающие некоторую омонимию. Они рассматривают не только ближайшее
окружение слова, но весь фрагмент или все предложение;</li>
                          <li>
    
    Правила,
устанавливающие иерархию. Они включают данный фрагмент в непосредственно
соседний;</li>
                          <li>
    
    Правила, которые
объединяют два дистантно расположенных фрагмента или группу контактных
(непосредственных соседей). При этом все объединявшиеся фрагменты уничтожаются,
и создается один большой фрагмент. Его границы определяются стандартно из
границ объединенных фрагментов; заполнение других полей в структуре фрагмента
определяется каждым правилом отдельно.</li>
                        </ul>
                        <p>Приведем по одному примеру для
каждого типа правил:</p>
                        <p align=left style='text-align:left'>Если во фрагменте есть неомонимичная предикативная часть речи (глагол в
личной форме, краткое прилагательное, краткое причастие, предикативное слово,
причастие или деепричастие), то во всех остальных словах данного фрагмента
уничтожаются омонимы предикативных частей речи.</p>
                        <p align=left style='text-align:left'>
    <u>Пример</u>: <i>Мыла на кухне
она не нашла.<br>
    </i>Так как <i>нашла</i> - неомонимичный
глагол у слова <i>мыла</i> уничтожается
омоним {МЫТЬ,  VERB (<b>прш, жр</b>...)).</p>
                        <p>Пусть есть два соседних
фрагмента Ф<sub>k</sub> и Ф<sub>k+1</sub>. Пусть Ф<sub>к</sub> заканчивается на
одно из следующих слов: <i>тот</i><b>, </b><i>каждый,
всякий, любой, все, никто, кто-нибудь, кто-то, кое-кто</i><b>, </b>а Ф<sub>k+1 </sub>начинается со слов <i>кто</i> или <i>чей</i><b>, </b>тогда
объявляем, что Ф<sub>k+1 </sub>подчинено Ф<sub>k</sub>.</p>
                        <p>
<u>Пример</u>: ...<i><b>тот,
кто</b>  этого не знает, не решит</i></p>
                        <p>Пусть Ф<sub>k</sub>  - первый фрагмент  в всем предложении или  в
начале него стоит подчинительный союз. Пусть Ф<sub>k </sub>– пустыха и подчиняет Ф<sub>k+1</sub>,  стоящий контактно справа  от него. Если Ф<sub>к+2</sub> не является
пустыхой, то нужно объединить фрагменты Ф<sub>k</sub> и Ф<sub>к+2.</sub></p>
                        <p><u>Пример</u><i>: </i>...<b>когда
на столе</b>, покрытом скатертью<b>, они
расставили тарелки</b>...</p>
                        <p>&nbsp;</p>
                        <table width="720" border="0" cellspacing="0" cellpadding="0">
                          <tr>
                            <td width="20">&nbsp;</td>
                            <td class="titleblack"><a name="3-5" id="3-5"></a>Объединение результатов фрагментации и
                              синтаксического анализа</td>
                            <td align="right"><a href="#top" class="titleblack" title="наверх">^</a></td>
                          </tr>
                        </table>
                        <p>Построенные фрагменты и синтаксические группы преобразуются в одно
дерево зависимостей, в узлах которого стоят отдельные слова или &quot;жесткие&quot;
группы (КОЛИЧ, ФИО, ЭЛ_АДРЕС). &quot;Жесткие&quot; группы считаются
принципиально неделимыми, поскольку они строятся почти без ошибок. Для
установления зависимости используется иерархия на фрагментах, например, если Ф<sub>i</sub>
– деепричастный оборот, подчиненный фрагменту Ф<sub>k</sub>, то вершина Ф<sub>k</sub>
подчиняет вершину Ф<sub>i</sub>. Так же для установления синтаксических
отношений используется  главные
подгруппы синтаксических групп следующим образом. В каждой группе G можно
вычислить главное слово, если взять главную подгруппу G, а потом ее главную
подгруппу и т.д.  Синтаксические
отношения проводятся от главного слова главной подгруппы к главным словам
других непосредственно составляющих. Названия отношений  совпадают с названиями групп или типов
фрагментов. Например,  отношения внутри
группы ПРИЛ-СУЩ называются ПРИЛ-СУЩ.</p>
                        <p>Всем узлам дерева зависимостей приписан уникальный номер клаузы,
которой он принадлежит. Кроме этого, приписаны два набора морфологической
информации (внутренний и внешний). 
Внутренняя морфологическая информация – это те параметры, которые были
приписаны непосредственно слову, а внешняя информация – это то, что было
приписано группе, в которой это слово было главным. Например, главным словом в
группе &quot;два мальчика&quot; будет слово &quot;мальчика&quot;. Внутренняя информация словоформы
&quot;мальчика&quot; будет (МАЛЬЧИК, С, (&quot;мр, ед, рд&quot;, &quot;мр, ед, вн&quot;)), а внешняя  - 
(МАЛЬЧИК, С, (&quot;мр, мн, им&quot;)).</p>
                        <p>&nbsp;</p>
                        <p>&nbsp;</p>
                        <p>[<a name="pp1" href="#p1">1</a>] Все
версии  морфологических словарей системы
Диалинг были получены из Института русского языка Российской академии
наук</p>
                        <p>&nbsp;</p>
                        <table width="720" border="0" align="center" cellpadding="0" cellspacing="0" bgcolor="#000000">
                          <tr>
                            <td height="2"><img src="../../images/transparent.gif" width="1" height="2"></td>
                          </tr>
                        </table>
                        <p align="center"><font size="-1" face="Arial, Helvetica, sans-serif"><a href="/index.html">главная</a> <a href="/history.html">о&nbsp;нас</a> <a href="/product.html">продукты</a> <a href="/download.shtml">скачать</a> <a href="/onlinedemo.html">&nbsp;демо</a> <a href="/technology.html"><b>технологии</b></a>  <a href="#top" title="наверх">^</a></font></p></td>
                    </tr>
                  </table></td>
              </tr>
              <tr>
                <td valign="bottom"><table width="750" border="0" cellspacing="0" cellpadding="0">
                    <tr>
                      <td>&nbsp;</td>
                      <td align="right"><table border="0" cellspacing="5" cellpadding="0">
                          <tr> 
                            <td align="right"><font color="#999999" size="1">Разработка 
                              <a href="mailto:simple@mosk.ru"><font color="#999999">DiP</font></a>.<br>
                              &copy; 2003 <a href="http://www.aot.ru/"><font color="#999999">АОТ</font></a>. 
                              Все права защищены.</font></td>
                          </tr>
                        </table></td>
                    </tr>
                  </table></td>
              </tr>
            </table></td>
        </tr>
      </table></td>
    <td bgcolor="#CCCCCC"><img src="../../images/transparent.gif" width="1" height="1"></td>
  </tr>
  <tr>
    <td bgcolor="#CCCCCC"><img src="../../images/transparent.gif" width="1" height="1"></td>
    <td bgcolor="#CCCCCC"><img src="../../images/transparent.gif" width="1" height="1"></td>
  </tr>
</table>
</body>
</html>
